Povijesni odjel nastao je iz Odjela za radnički pokret, NOB i socijalističku izgradnju osnovanog 1964. godine. U sastavu Odjela za radnički pokret, NOB i socijalističku izgradnju nalazila se od 1968. godine i Spomen-zbirka obitelji Ribar izložena u rodnoj kući dr. Ivana Ribara u Vukmaniću o kojoj je brinuo domar Antun Colnar, a koja je teško devastirana u Domovinskom ratu. 

Nakon Domovinskog rata Odjel je preimenovan u Povijesni odjel te počinje prikupljati, istraživati, zaštićivati, stručno obrađivati i prezentirati muzejsku građu o povijesti grada od njegova nastanka 1579. do 1990. godine. 

Dok je Odjel za radnički pokret, NOB i socijalističku izgradnju svojim izložbama obilježavao značajne datume, osobe i događaje iz razdoblja 1941.-1945. godine, Povijesni odjel se bavi  temama poput povijesti karlovačke fotografije, karlovačkih istraživača Afrike, Prvog hrvatskog pjevačkog društva „Zora“, povijesti pisane riječi u Karlovcu, života u Karlovcu u Prvom svjetskom ratu, pri čemu nastoji kroz interdisciplinarni pristup sagledati i afirmirati karlovačke posebnosti u lokalnom, nacionalnom i europskom kontekstu. Tako je izložba „AfriKA – Karlovčani u Africi u drugoj polovini 19. i početkom 20. stoljeća“ dobila posebno priznanje Hrvatskog muzejskog društva za 2013. godinu. 

Osim toga, muzejska građa se prezentira na nacionalnim i međunarodnim kongresima, u znanstvenim i stručnim člancima, monografijama, katalozima zbirki i izložbi, kao i korištenjem novih medija. 

Od 2016. godine Odjel je posvećen popularizaciji povijesti sudjelujući u nacionalnoj manifestaciji Dan povijesti u sklopu Festivala povijesti – Kliofesta.

Osim predmeta nekadašnjeg Odjela za radnički pokret, NOB i socijalističku izgradnju koji danas čine Zbirku NOB-a i socijalističke izgradnje, građa Povijesnog odjela organizirana je prema vrsti građe u sljedeće zbirke: Zbirka dokumentarne građe, Zbirka fotografija, fotografske opreme i pribora, Zbirka odlikovanja, medalja i plaketa, Zbirka odora, zastava i lenti, Zbirka oružja i vojne opreme, Zbirka razglednica i čestitki, Zbirka NOB-a i socijalističke izgradnje, Zbirka varia.

Odjel su tijekom proteklih godina vodili kustosi Antun Strzalkowski (1964.-1967.), Milkica Vuković (1968.-1977.), Milica (Banda) Radojčić (1978.-1980.; 1986.-1993.), Branko Budimir Bekan (1981.-1984.) i Želimir Miklić (1984.-1986.). Od 1996. godine voditeljica odjela je muzejska savjetnica mr. sc. Sanda (Stepinac) Kočevar.